Watermarks /水印
隨著AI普及，區分AI生成與人工創作內容變得關鍵。水印幫助使用者篩選線上內容，保護創作者作品，並確保平臺內容質量。
水印透過在各類媒體中新增標記來追蹤AI生成內容。無論是視覺水印還是數字指紋，都讓AI內容更透明。。
水印型別
表層水印
特點：在內容表面新增視覺符號或文字，通常透過後期處理實現。
優點：易於識別。
缺點：不與內容結構繫結，容易被移除。
隱寫水印
特點：將模式嵌入到內容中，對人類不可見。例如，在影片畫素、文字間距或音訊音調中加入微小變化。
優點：相較於表層水印，更不易被識別和移除。
缺點：透過簡單修改（如高斯模糊）仍可被掩蓋或破壞。
機器學習水印
特點：透過機器學習模型嵌入唯一金鑰，僅其他模型可讀取。例如，Meta 的 SynthID 使用此技術。
優點：強於表層和隱寫水印，對抗性較強。
缺點：影象被修改後仍可能出現質量退化。
統計水印
特點：在生成過程中注入隨機模式，影響內容表層但不改變其結構。
優點：隨機性提高了破解難度。
缺點：對內容表面仍有輕微影響。
內容溯源
內容溯源是另一種方法，透過將資料嵌入內容的起源（後設資料）來建立“數字指紋”。
機制：需要生成器和數字平臺的合作，遵循標準化協議，如 C2PA（內容溯源與真實性聯盟）制定的標準。
優勢：修改內容時會留下痕跡，確保透明性和可靠性。
挑戰：依賴廣泛採用，目前仍在推廣階段。
典型工具
- Content Credentials Verifier：支援內容上傳後識別後設資料中嵌入的水印。
- SynthID（Google）：向 AI 生成內容新增水印的工具。
- Stable Signature（Meta）：用於捕獲 AI 生成內容的技術。
- Truepic：透過 C2PA 協議檢測合成內容。
法規背景
- 中國:要求 AI 生成內容在下載檔名中包含後設資料，並標記來源生成水印。
- 歐盟:AI 法案（AI Act）要求標記生成內容，並對基礎模型提出透明性和版權合規要求。
- 美國:2023 年行政命令規定了水印的標準，但需國會立法以確保執法。
- 監管趨勢:儘管不同國家的法規尚未完全統一，但私營企業和政府正在共同推動標準化和多層次的合作來解決這一問題。
設計考量與使用者體驗
- 使用者可見水印:水印是否對使用者肉眼可見取決於使用場景。驗證方式:如果水印不可見，需提供使用者驗證內容真實性的方式。
- 標準化標識:採用行業標準標記（如 C2PA）以減少使用者理解負擔。
- 多層次資訊:在可行的情況下，為使用者提供附加背景資訊，如水印可能存在的誤報或漏報風險。
優勢
提高使用者主動權:對於低風險使用場景（如社交媒體圖片），標記 AI 內容能幫助使用者更好地識別生成內容。推動集體行動:面對生成式 AI 帶來的誤導資訊挑戰，政府和企業的合作能有效推動問題解決。
風險
- 技術脆弱性:當前水印技術易被削弱或移除，需要進一步發展以提高可靠性。
- 標準缺失:例如內容溯源的協議需得到更廣泛採用，才能發揮實際效果。
- 誤報與漏報:未準確標記的 AI 內容會降低使用者信任，而過多的誤報可能誤傷真實創作者。
未來發展
AI 內容水印技術和溯源協議的推廣需要結合法規和技術的雙重創新。設計者和開發者應從人性化的角度出發，幫助使用者理解水印功能和使用場景，從而提升使用者信任和體驗。
